Coding Agents with an Obstacle-Aware Harness for Safe Robot Manipulation
面向安全机器人操作的障碍感知编码智能体约束框架
🧭 编码智能体的安全约束规划
USC · UCF · UCSB
提出 SafeHarness，通过障碍感知路径规划与接触执行显著提升编码智能体的任务成功率和避碰率
📌 工作参考价值（4 点）
- 约束优先级显式化：在 prompt 里写“不要撞障碍物”不够，需把安全约束拆成结构化步骤。电商 Agent 中“不违规”“不超预算”等约束可借鉴：先规划、验证约束、必要时重新规划，再执行。
- 阶段分解定位失败：将任务拆成 route phase 和 contact-rich moment，分别定位不满足约束的环节。推荐/广告 Agent 可对“选品→出价→文案”分段做约束检查，避免只在最终输出把关。
- 用结构化中间表示消解歧义：将物体表示成 bounding boxes、路径写成 waypoints，减少 LLM 对场景的自由裁量。对应到业务可用结构化 schema（如候选 query 列表 + 规则标签）让 Agent 做约束内选择。
- 验证-重规划闭环：选择路径后先 verify，不可行就 replan，而非一步到位。适合用在需要多步决策的推荐 Agent 流程，比如先选候选集再过滤违规项，失败后回退重选。